![כשאפקט הקוברה מגיע לבינה המלאכותית [2-12]](https://s3.castbox.fm/9d/ee/c1/27b42923e0bd969a15929a4ea368e9852c_scaled_v1_400.jpg "כשאפקט הקוברה מגיע לבינה המלאכותית [2-12]")
כשאפקט הקוברה מגיע לבינה המלאכותית [2-12]
Description
היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.
מוזמנים להאזין!
אתר הפודקאסט והמייל:
https://elishasangles.substack.com/
לינקים נוספים מהפרק:
רמאות במשחק שח:
https://time.com/7259395/ai-chess-cheating-palisade-research/
חוק גודהארט:
https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98
אפקט הקוברה:
https://economicpoint.com/goodharts-law
הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:
איך עוברים את מבחן טיורינג:
https://arxiv.org/pdf/2310.20216
הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:
https://arxiv.org/abs/2409.12822
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com
![פונקציית המטרה: התבלין הסודי של הבינה המלאכותית [2-11]](https://s3.castbox.fm/b3/6b/01/ce7e02654e22547dfad885c9394c379f50_scaled_v1_400.jpg "פונקציית המטרה: התבלין הסודי של הבינה המלאכותית [2-11]")
![תבונה: הסכום שגדול מסך חלקיו [2-10]](https://substackcdn.com/feed/podcast/2127268/post/159172587/13fc8f576d63638da8cf5727a7eeb0ca.jpg "תבונה: הסכום שגדול מסך חלקיו [2-10]")
![ההתנתקות, הרפורמה, ומה שביניהן - זווית אישית עם עמית מנדלבוים [חלק #3]](https://s3.castbox.fm/8c/31/20/90c5b965e4e8dd7fb0ea2d09e0510b70cb_scaled_v1_400.jpg "ההתנתקות, הרפורמה, ומה שביניהן - זווית אישית עם עמית מנדלבוים [חלק #3]")
![בין בינה לאשליה מלאכותית [2-8]](https://substackcdn.com/feed/podcast/2127268/post/154188434/3744b51ddf9f62cb6b97a779104bb7a8.jpg "בין בינה לאשליה מלאכותית [2-8]")
![כשהבינה המלאכותית מאבדת את שפיותה [2-7]](https://substackcdn.com/feed/podcast/2127268/post/152831627/bdef245e78a858abc6e1c6f39fccc30d.jpg "כשהבינה המלאכותית מאבדת את שפיותה [2-7]")
United States
